Kao u filmu „Specijalni izveštaj”: Kina želi da AI prepozna potencijalne počinioce
Dodajte Kurir u vaš Google izborKineske vlasti još pre nekoliko godina razmatrale su primenu veštačke inteligencije i velikih baza podataka kako bi policija mogla da prepozna potencijalne bezbednosne rizike pre nego što dođe do incidenta. Ideja podseća na film „Specijalni izveštaj”, u kojem sistem predviđa buduće zločine i omogućava policiji da interveniše pre nego što se oni dogode. U stvarnosti, međutim, takvi sistemi ne mogu da vide budućnost, već analiziraju podatke i traže obrasce koje algoritmi povezuju sa mogućim rizikom.
U izveštaju iz 2017. godine navodi se da je kineska kompanija Cloud Walk razvijala sisteme za prepoznavanje lica i analizu kretanja ljudi. Njihov zadatak bio je da prate obrasce ponašanja i označe aktivnosti koje bi mogle da privuku pažnju policije. Takav pristup predstavlja deo šireg koncepta prediktivnog nadzora, u kojem se podaci koriste za procenu mogućih budućih događaja, umesto da se reaguje isključivo nakon izvršenog krivičnog dela.
Kupovine i kretanje mogu postati deo procene rizika
Jedan od primera iz tadašnjeg izveštaja pokazuje koliko široko može biti postavljeno algoritamsko praćenje. Kupovina kuhinjskog noža sama po sebi nije neuobičajena, ali bi sistem mogao da poveže takvu kupovinu sa kasnijom nabavkom čekića i džaka i proceni da kombinacija predstavlja razlog za dodatnu proveru. Problem je u tome što isti predmeti mogu imati sasvim običnu namenu, pa kontekst i ljudska procena ostaju presudni.
Slični sistemi mogu da analiziraju i kretanje ljudi kroz različite delove grada, učestalost poseta određenim lokacijama i ponavljanje obrazaca ponašanja. Tehnologija poznata kao ponovno identifikovanje osoba može da prepozna istu osobu na različitim snimcima, čak i kada promeni odeću ili izgled. Kada se takvi podaci povežu sa drugim informacijama, nadležni mogu da dobiju mnogo detaljniju sliku o kretanju pojedinca, što istovremeno povećava mogućnosti nadzora i rizik od narušavanja privatnosti.
Ogromne baze podataka daju sistemima više mogućnosti
Kina je tokom prethodnih godina izgradila veoma široku infrastrukturu za video-nadzor, prepoznavanje lica i prikupljanje različitih vrsta podataka. Takva mreža omogućava povezivanje informacija iz više izvora, uključujući snimke sa javnih mesta, evidencije i digitalne tragove. Kada se podaci obrađuju uz pomoć veštačke inteligencije, policija može brže da pronađe određene obrasce i izdvoji situacije koje zahtevaju dodatnu proveru.
Međutim, količina podataka ne garantuje da će zaključci sistema biti tačni. Ako su informacije nepotpune, zastarele ili pogrešno protumačene, algoritam može da označi potpuno nedužnu osobu kao sumnjivu. Posebno je problematično kada se procene zasnivaju na tome gde neko ide, sa kim se sastaje ili kakve navike ima, jer takvi obrasci sami po sebi ne predstavljaju dokaz kriminalne aktivnosti.
AI otvara ozbiljna pitanja o pravima građana
Najveća zabrinutost odnosi se na mogućnost da algoritamska procena postane osnov za policijsko postupanje prema osobi koja nije počinila nikakav prekršaj ili krivično delo. Ako sistem nekoga označi kao potencijalnu pretnju, postoji rizik da ta oznaka utiče na način na koji ga nadležni posmatraju, čak i kada ne postoje konkretni dokazi. Takav pristup može da dovede do diskriminacije, neopravdanog nadzora i ograničavanja slobode kretanja.
Dodatni problem predstavlja nedostatak transparentnosti. Građani često ne znaju koje informacije se prikupljaju, kako algoritam donosi procene i na koji način mogu da ospore pogrešan rezultat. Zbog toga stručnjaci naglašavaju potrebu za jasnim pravilima, nezavisnim nadzorom i ljudskom odgovornošću za svaku odluku koja može da utiče na prava pojedinca. Veštačka inteligencija može da pomogne policiji u analizi podataka, ali ne bi smela da zameni dokaze i pravni postupak.
Od predviđanja kriminala do šireg sistema nadzora
Prediktivni nadzor nije ostao samo tema izveštaja iz 2017. godine. Noviji izveštaji ukazuju na to da Kina nastavlja da unapređuje postojeću infrastrukturu za praćenje i analizu ponašanja, uz sve veću upotrebu veštačke inteligencije. Ipak, treba razlikovati sisteme koji prepoznaju sumnjive obrasce ili procenjuju rizik od tehnologije koja bi zaista mogla pouzdano da predvidi budući zločin. Za takvu sposobnost ne postoji jednostavno ni nepogrešivo tehnološko rešenje.
Suštinsko pitanje zato nije samo koliko daleko AI može da ode u analizi ljudskog ponašanja, već i ko kontroliše prikupljene podatke i kako se sprečava njihova zloupotreba. Tehnologija koja može da pomogne u otkrivanju kriminala istovremeno može da postane sredstvo za praćenje ljudi koji nisu učinili ništa nezakonito. Granica između bezbednosti i masovnog nadzora zato će biti jedno od najvažnijih pitanja u budućem razvoju veštačke inteligencije.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.